İnternet İzleme Vakfı (IWF), yapay zeka (AI) teknolojisinin çocuk cinsel istismarı nitelikli materyal (CSAM) üretiminde kullanımı üzerine yeni bir rapor yayımladı.“<a fr-original-style="" href="https://www.iwf.org.uk/about-us/why-we-exist/our-research/how-ai-is-being-abused-to-create-child-sexual-abuse-imagery/" style="color: rgb(9, 9, 9); text-decoration: none; background-color: transparent; outline: none; cursor: pointer; transition: color 0.3s; touch-action: manipulation; user-select: auto; box-sizing: border-box;" target="_blank">Yapay Zeka Çocuk Cinsel İstismarı Raporu</a>” isimli rapor, AI teknolojisinin çocuk istismarı için kullanımı ile bu alandaki tehditlerin her geçen gün arttığını gözler önüne serdi.AI teknolojisinin suçlular tarafından giderek daha fazla kullanıldığına dikkat çeken rapor, AI’ın özellikle görsel içeriklerde çocuk istismarı amacıyla manipüle edildiğini belirtti.<h2 dir="ltr" fr-original-style="" style="margin: 0px; color: rgba(0, 0, 0, 0.85); font-weight: 500; padding: 0px; box-sizing: border-box;">İlk kez tamamen yapay zekayla üretilmiş istismar videosu üretildi</h2>Rapora göre suçlular, AI araçlarını kullanarak yasa dışı çocuk istismarı içeriklerini üretmek konusunda çok daha başarılı hale geldi. Raporda, hızla gelişen AI teknolojisi sayesinde oluşturulan görüntülerin %90’ının gerçek görüntüler kadar gerçekçi olduğu ve yasa dışı olarak değerlendirilebileceği vurgulandı.Raporda, 2023’te özellikle “dark web”de yaklaşık 20 bin AI destekli CSAM görüntüsünün paylaşıldığı, 2024'te ise bu sayının azalmasına rağmen paylaşılan içeriklerin daha ciddi suç kategorilerine girdiği belirtildi.&nbsp;Bununla birlikte raporda, 2024’te ilk kez AI ile üretilmiş cinsel istismar videolarına rastlandığı kaydedildi. Bu videoların çoğunun "deepfake" olarak bilinen, gerçek görüntülerin AI ile manipüle edilmesiyle oluşturulan içerikler olduğu ancak tam sentetik videoların da üretilmeye başlandığı ifade edildi.<h2 dir="ltr" fr-original-style="" style="margin: 0px; color: rgba(0, 0, 0, 0.85); font-weight: 500; padding: 0px; box-sizing: border-box;">AI araçları ile çocuk istismarı mağdurları bir kez daha istismara uğruyor</h2>Raporda, AI tabanlı video üretiminde kaydedilen ilerlemelere de dikkat çekildi ve Google Veo ile OpenAI Sora gibi gelişmiş AI video üretim araçlarına değinildi. Bu gibi araçların metinden görüntüye ya da metinden videoya içerik üretebilme kapasitesiyle suçluların elinde tehlikeli birer araç haline geldiği vurgulandı. Raporda, “Bu modeller, AI destekli çocuk cinsel istismarı materyallerinin yayılmasını hızlandırabilecek potansiyele sahip” dendi.Ayrıca suçluların, bilinen çocuk istismarı mağdurlarını ya da ünlü çocukları içeren görselleri AI teknolojisi ile yeniden canlandırdıkları tespit edildi. Raporda bunun için “Bu, mağdurların bir kez daha istismar edilmesine yol açarken özellikle AI'ın sağladığı olanaklar sayesinde bu görüntülerin sürekli olarak yeniden üretilebilmesi, mağdurların travmalarının sürekliliğini artırıyor” ifadeleri kullanıldı.<h2 dir="ltr" fr-original-style="" style="margin: 0px; color: rgba(0, 0, 0, 0.85); font-weight: 500; padding: 0px; box-sizing: border-box;">AI ile oluşturulan her beş içerikten biri suç teşkil ediyor</h2>Rapor kapsamında bir IWF analisti, yapay zeka kullanılarak oluşturulmuş görseller için yapılan şikayet bildirimlerini de izledi.Buna göre Nisan 2023 ile Mart 2024 arasında, kamuya açık internet sitelerinde yer alan ve AI ile oluşturulmuş 375 içerik için bildirim yapıldığı tespit edildi. Analiz sonucunda, bu 375 bildirimin 70’inde yer alan içeriklerin CSAM olduğu ve Birleşik Krallık yasaları uyarınca “çocuk istismarı” suçunu meydana getirdiği belirlendi. Bu, AI ile oluşturulmuş her beş içerikten birinin CSAM olduğu anlamına gelirken bu içeriklerin kaldırılmaları için işlem yapıldı.Aylara göre AI ile oluşturulmuş içerik ve bunlardan kaçının CSAM olduğunu gösteren grafik şöyle:<img src="https://images.aposto.com/2024/10/4/1731618846413.png" style="display: block; vertical-align: top; margin: 5px auto; text-align: center; width: 100%; max-width: 550px; border-style: none; position: relative; cursor: pointer; padding: 0px 1px; box-sizing: border-box;" width="550" ratio="1.74" fr-original-style="display: block; vertical-align: top; margin: 5px auto; text-align: center; width: 100%; max-width: 550px;" fr-original-class="fr-draggable">Buna göre CSAM, şubat ayında zirve yaparken IWF, bunun için şu yorumu yaptı:<blockquote fr-original-style="color: rgb(9, 9, 9); border-color: rgb(255, 206, 20); border-width: 4px; font-style: italic; padding-left: 10px;" style="color: rgb(9, 9, 9); border-color: rgb(255, 206, 20); border-width: 4px; font-style: italic; padding-left: 10px; margin: 0px 0px 1em; border-left-style: solid; box-sizing: border-box;">“Özellikle, ‘gerçek’ çocuk görüntüleri yerine, herkese açık internet sitelerinde AI CSAM görüntülerinin paylaşıldığını gördük. Bunlar arasında ticari siteler ve bağlantılı dosya barındırma sitelerine [WeTransfer, Google Drive vb.] sahip forum sayfaları yer aldı. Bu durum, AI ile üretilmiş içeriğin ve AI CSAM’in halka açık internette yayıldığına dair kanıtlar sunuyor.”</blockquote><h2 dir="ltr" fr-original-style="" style="margin: 0px; color: rgba(0, 0, 0, 0.85); font-weight: 500; padding: 0px; box-sizing: border-box;">AI ile oluşturulmuş her üç görselden biri çocuk istismarı içeriyor</h2>Rapor kapsamında, adını vermediği popüler bir yeraltı forumunu da izleyen IWF, AI ile oluşturulan ve Mart-Nisan 2024’te forumda paylaşılan 12 bin 148 görseli analiz etti.12 IWF analisti, 130 saat süren incelemenin sonunda bu görsellerin toplam 3 bin 512’sinin&nbsp;(%29) CSAM olduğunu tespit etti.Bunların 2 bin 985’inin (%25) Birleşik Krallık yasalarınca “müstehcen”, 527’sinin (%4) ise “yasaklanmış” olduğu belirlendi. “Yasaklanmış” ifadesiyle çizgi film, çizim, animasyon vb. görseller ifade edildi.<img src="https://images.aposto.com/2024/10/4/1731618943942.png" style="display: block; vertical-align: top; margin: 5px auto; text-align: center; width: 100%; max-width: 550px; border-style: none; position: relative; cursor: pointer; padding: 0px 1px; box-sizing: border-box;" width="550" ratio="1.69" fr-original-style="display: block; vertical-align: top; margin: 5px auto; text-align: center; width: 100%; max-width: 550px;" fr-original-class="fr-draggable"><h2 dir="ltr" fr-original-style="" style="margin: 0px; color: rgba(0, 0, 0, 0.85); font-weight: 500; padding: 0px; box-sizing: border-box;">AI ile üretilen CSAM görseli sayısı arttı</h2>IWF, bu sonucu, aynı çalışmayı yaptığı Eylül 2023’te elde ettiği verilerle kıyasladı.&nbsp;Buna göre söz konusu forumda paylaşılan AI ile oluşturulmuş görsel sayısının bu dönemde azaldığını belirten IWF, buna karşın AI ile oluşturulmuş CSAM görseli sayısının ise arttığını ifade etti.<img src="https://images.aposto.com/2024/10/4/1731618977405.png" style="display: block; vertical-align: top; margin: 5px auto; text-align: center; width: 100%; max-width: 550px; border-style: none; position: relative; cursor: pointer; padding: 0px 1px; box-sizing: border-box;" width="550" ratio="1.67" fr-original-style="display: block; vertical-align: top; margin: 5px auto; text-align: center; width: 100%; max-width: 550px;" fr-original-class="fr-draggable"> <h2 dir="ltr" fr-original-style="" style="margin: 0px; color: rgba(0, 0, 0, 0.85); font-weight: 500; padding: 0px; box-sizing: border-box;">İstismara konu olan görsellerde 11 ila 13 yaşındaki çocuklar kullanıldı</h2>IWF analistleri, AI ile oluşturulmuş CSAM görsellerindeki çocukların tahmini yaşlarını da analiz etti.Buna göre, 11 ila 13 yaş aralığındaki çocuklar ile 14-15 yaşlarındaki çocukların kullanıldığı görsel sayısı, Eylül 2023 dönemine kıyasla ortalama %10 artış gösterdi.<img src="https://images.aposto.com/2024/10/4/1731618652311.png" width="550" height="317" style="width: 100%; max-width: 550px; border-style: none; position: relative; cursor: pointer; padding: 0px 1px; box-sizing: border-box;" ratio="1.70" fr-original-style="width: 100%; max-width: 550px;" fr-original-class="fr-draggable"><h2 dir="ltr" fr-original-style="" style="margin: 0px; color: rgba(0, 0, 0, 0.85); font-weight: 500; padding: 0px; box-sizing: border-box;">Hükümetlere ve şirketlere çağrı: AI ile mücadele için acil eylem gerekli</h2>İnternet İzleme Vakfı (IWF) CEO’su Susie Hargreaves, hükümetleri ve teknoloji şirketlerini yapay zekanın kötüye kullanımına karşı acilen harekete geçmeye çağırdı.AI'ın kontrolsüz gelişimiyle birlikte çocuk cinsel istismarının yeni ve korkunç boyutlara ulaştığını belirten Hargreaves, "Gelecekte yapay zekanın kontrolsüz gelişiminin önüne geçilmezse AI ile üretilen çocuk istismarı içeriklerinin kontrolü neredeyse imkansız hale gelebilir” dedi.Hargreaves, hükümetlerin ve uluslararası kuruluşların yapay zekanın kötüye kullanımını önlemek amacıyla daha güçlü işbirliği yapmaları gerektiğini belirtti.* Bu içerik Avrupa Birliği'nin maddi desteği ile hazırlanmıştır. İçerik tamamıyla Aposto’nun sorumluluğu altındadır ve Avrupa Birliği'nin görüşlerini yansıtmak zorunda değildir.

Yankı Raporu

Yayımlanan yeni bir rapora göre yapay zeka kullanılarak oluşturulan her üç görselden biri çocuk istismarı içeriyor. IWF’ye göre bilinen istismar mağduru çocukların görselleri yapay zekayla canlandırılarak yeni istismar görsellerinde kullanılıyor.

İnternet İzleme Vakfı ile ilgili hikayeler